"Smell Like Teen Spirit" được thu âm ở khóa Fa thứ đầu tiên, theo sau là chùm hợp âm Mi thứ–Si giáng–La giáng–Rê giáng (Fm-B♭–A♭–D♭)[14] với câu guitar riff chính cấu thành từ 4 hợp âm 5 chơi theo điệu gảy nốt móc kép đảo phách của Cobain.[15] Những hợp âm guitar này bị ghi đè nhằm tạo ra tiếng nhạc "nặng đô hơn".[16] Đôi khi các hợp âm trên bị biến âm sắc thành những hợp âm treo là do Cobain đánh 4 dây ở đáy đàn để làm âm thành dày tiếng hơn.[15] Câu riff của bài hát có nét tương đồng với bài hit "More Than a Feeling" của ban nhạc Boston, dù cho thực chất chúng không giống ý hệt. Cobain cho hay: "Đó chẳng qua là một câu riff rập khuôn. Nó gần giống với câu riff của Boston hoặc bài 'Louie Louie' của The Kingsmen".[5] Trong các phiên khúc, Cobain sử dụng bàn đạp âm hiệu ứng Small Clone nhằm chế ra một hiệu ứng hợp âm.

"Smell Like Teen Spirit" sử dụng "cấu trúc hình thức phổ thông" gồm các quãng 4 nhịp, 8 nhịp và 12 nhịp, cụ thể là một phiên khúc 8 nhịp, một tiền điệp khúc 8 nhịp và một điệp khúc 12 nhịp. Chuyên gia âm nhạc Graeme Downes – thủ lĩnh ban nhạc The Verlaines cho rằng "Smells Like Teen Spirit" là minh họa cho sự phát triển biến thể.[17] Những nhạc tố trong cấu trúc của bài hát được ghi dấu bằng những thay đổi trong âm lượng và cường độ, chuyển từ yên tĩnh sang ồn ào nhiều lần. Cấu trúc này gồm có "những câu phiên khúc yên ắng với tiếng guitar làm người nghe lắc lư theo điệp khúc, kế đến là các điệp khúc lớn và ồn ào lấy cảm hứng từ hardcore" – trở thành hình mẫu của một bài nhạc alternative rock.[18]